Tên gọi Krông Bông xuất phát từ tên con sông chính chảy qua địa phận của huyện. Sông này cùng với sông Krông Pắc gặp nhau giữa địa phận xã Hòa Lễ và Cư Kty, chảy vào sông Krông Ana, là thượng nguồn của sông Sê-rê-pốc - đổ vào sông Mê Kông.

Trong những năm tháng chiến tranh, đây là vùng căn cứ địa cách mạng của tỉnh Đăk Lăk, với địa danh nổi tiếng H9, Hang đá Đắk Tur...

Huyện Krông Bông được thành lập vào ngày 19 tháng 9 năm 1981 trên cơ sở tách 9 xã: Cư Kty, Ea Trul, Hòa Lễ, Hòa Phong, Hòa Sơn, Hòa Tân, Hòa Thành, Khuê Ngọc Điền, Krông Bông thuộc huyện Krông Pắc.[1]

Khi mới thành lập, huyện có 9 xã nói trên. Huyện lỵ đặt tại xã Khuê Ngọc Điền.

Ngày 12 tháng 2 năm 1987, chia xã Krông Bông thành 3 xã lấy tên là xã Cư Pui, xã Cư Đrăm và xã Yang Mao.[2]

Ngày 26 tháng 5 năm 1992, chia xã Cư Kty thành hai xã lấy tên là xã Cư Kty và xã Kang Dang.

Ngày 9 tháng 1 năm 1998, thành lập thị trấn Krông Kmar, thị trấn huyện lỵ huyện Krông Bông trên cơ sở 530 ha diện tích tự nhiên và 6.000 người của xã Khuê Ngọc Điền.[3]

Ngày 31 tháng 12 năm 2002, thành lập xã Yang Reh trên cơ sở 2.939 ha diện tích tự nhiên và 4.110 người của xã Ea Trul.[4]

Huyện Krông Bông có 1 thị trấn và 13 xã như hiện nay.